微軟在今年推出了一個全新的平台,叫做 Azure AI Studio。這個算是集微軟 AI 服務於大成的一個平台。旨在幫助開發者和資料科學家通過簡化的 UI,開...
今天我們開始來建立了一個基本的對話功能的 Prompt Flow 吧!昨天我們已經建立好了一個 Azure OpenAI 的模型了,接著我們就把這麼 gpt-4...
Azure Machine Learning 在生成式 AI 時代下的另一個全新功能:Prompt Flow! Azure Machine Learning 的...
我們聊完了整個 Model catalog、開源模型的部署、Fine Tune、RAG,接下來我們再來聊別的主題吧:CLI 和 SDK Azure Machin...
今天我們終於要來做 RAG 了。我們很快就會看到其實在客服性質裡的場景,RAG 的效果會比 Fine Tune 好上很多。 我們接著來寫程式吧! 導入必要的套...
今天我們就來整理產品資料,而且我們要整理成 LangChain Document 的通用格式,然後儲存到向量資料庫之中。 下面是我們整理好的產品型錄: [...
Qdrant 除了可以地端自架,也有雲端 SaaS 的免費版本。一般建議除了有自架的需求之外,使用 SaaS 版本會是最省事的。用戶只需要註冊並開始使用,不需處...
Cohere Embed v3 Multilingual 是 Cohere 最新且最先進的嵌入模型,提供了多語言支持和高效的文本嵌入功能。維度是 1024 維,...
Retrieval-Augmented Generation (RAG) 是一種結合了檢索技術和生成技術的強大方法,旨在提高大型語言模型(LLM)的回答準確性,...
等待了一個晚上,基本上就 Fine Tune 好了。 部署 Fine Tune 好的模型 我們可以到 Azure ML 的 Models 裡看到已經 Fin...
等待了一個晚上,基本上就 Fine Tune 好了。 部署 Fine Tune 好的模型 我們可以到 Azure ML 的 Models 裡看到已經 Fin...
今天就要來 Fine Tune 了。需要注意的是,不是每個 workspace 所在的區域都有 Fine Tune 的。舉例來說,我們這個範例所在的 westu...
今天我們就來整理資料吧! 打開我們昨天寫好的工具,使用指令 poetry shell 進到虛擬環境裡面,然後讓那個 Python 檔給跑起來。就會看到如下圖的...
今天我們用 tkinter 來寫一個輸入資料可以產生 JSONL 的小工具。 Tkinter 是 Python 的 GUI 套件,它提供了一個簡單易用的方式來建...
Fine Tune 的資料集準備,是最困難的一件事了。資料集中的每個例子應該是一段對話,並遵循 OpenAI chat completion API 的格式。需...
大語言模型的 Fine Tune 一直是大家很關注的問題,我們接下來的幾天就會實際帶大家在 Azure Machine Learning 上 Fine Tun...
今天我們來用 model catalog 部署多模態的 AI 模型。 我們來部署 Phi-3.5 Vision-Instruct 。這是一款由 Microsof...
今天開始來寫程式,串接部署在 Azure ML 上面的 Llama-3.1-8B-Instruct。 使用 curl 我們可以單純使用下面這個 curl 來呼叫...
Poetry 是一個用於 Python 的套件依賴管理工具。它旨在簡化並統一套件依賴的管理、虛擬環境配置以及專案打包的流程。 Poetry 使用一個 toml...
今天我們開始來寫程式串接 Serverless 部署的 Llama-3.1-8B-Instruct。今天先來介紹我們的主角 LangChain。 LangCha...
昨天介紹了全新的 Serverless 部署方式我們就來把 Llama-3.1-8B-Instruct 部署起來玩吧! 進到 Model Catalog 的頁...
在 Azure Machine Learning 的 Model Catalog 裡,有兩種部署 model 的方式,分別是 Managed compute 和...
先敘明,今天談的 model 部署,是 Model catalog 裡面的 AI 模型部署,而不是你在 Azure Machine Learning 裡面訓練好...
Azure Machine Learning 中的 Model Catalog 是專為開發生成式 AI 應用的模型中心,提供多種來自不同模型提供者的模型,包括...
我們昨天建立好了 Azure Machine Learning 的 workspace ,今天來看 Studio 的部份。在 Azure Machine Lea...
今天我們來建立 Azure Machine Learning。 進入 Azure Portal,在上面的搜尋框裡面,輸入「machine learning」,...
我在 2021 年的時候,寫過一系列 Azure Machine Learning 教學文,那時候曾經是台灣最完整的 Azure Machine Learnin...
Azure Machine Learning(我發現微軟的印度團隊會簡稱 AML,其他其他團隊更常用的是 Azure ML 這個詞)是 Microsoft Az...
本系列最後一篇文章!在前面建立了一條CI pipeline和一條CD pipeline:(1) CI pipeline流程,負責上傳、註冊訓練資料到Azure...
本次建立的CD pipeline中,會有兩個部分:(1)模型自動部署到測試環境(staging area) (上篇文章)(2)模型自動部署到正式環境(produ...